HASTE: Hierarchical and Attribute-aware Supervision for Generative Recommendation
HASTE：面向生成式推荐的层级与属性感知监督
🧭 生成式推荐 · Semantic ID 层级/属性监督 ★ 深度解读
Glance
提出层级损失与属性辅助损失，在 Semantic ID 生成式推荐中实现约 2 倍训练提速与长尾显著提升
📌 工作参考价值（4 点）
- 对基于 RQ-VAE Semantic ID 的生成式推荐，可直接把 flat causal CE 换成层级损失：粗粒度 SID code 给更大静态权重（如 4:3:2:1），再用 detached 置信度 gate 控制下游 level 的 loss 权重，并让权重从静态逐步退火到条件权重；同时用 scheduled sampling 扰动上游粗 code。这样不改变推理结构，却可拿到约 2× 收敛提速。
- 如果业务有商品属性（颜色、材质、版型等），可以在精细 SID 位置（如 L2 hidden state）接一个 64 维 MLP 回归头做辅助监督，目标由 SID tuple 查 catalog 聚合得到，不需要 query 中显式出现属性；用 Huber loss 且对低频 item 做频率加权 clamp((f_med/f_i)^0.5, 1, 5)，长尾 Recall@10 可提升 18%–24%。
- 属性辅助 head 不修改 SID 词表、logits 或生成分布，方便单独保存/上线回滚；但要先确认属性标注覆盖率，缺少 structured attribute 的数据集无法直接复用。
- 结果提示：标准 CE 微调会侵蚀预训练阶段形成的层级结构，使相邻 SID level 的 cosine coupling 下降、embedding drift 增大；因此在迁移 LLM 做生成式推荐时，值得监控 SID embedding 的结构保持程度，而不是只看 Hit/NDCG。